ARLoop: Fully-Open Pre-trained Looped Transformers with Attention Residuals
ARLoop：带注意力残差的完全开源预训练循环 Transformer
🧭 高效 LLM 预训练 · 循环 Transformer ★ 深度解读
The Ohio State University · Saarland University
提出 ARLoop，用滑动窗口深度注意力改进循环 Transformer，1.2B/0.5T 模型超过 Huginn-3.5B 并接近 Qwen3.5-2B
📌 工作参考价值（4 点）
- 循环 Transformer 是低成本 LLM 基座的可选路线：如果你的业务要用 LLM 做 Agent/生成式推荐，但 GPU 预算有限，ARLoop 这种「共享层 + 多次 recurrence」的架构可以显著降低参数量，同时保留较深的有效计算图；尤其数学/代码类推理任务收益明显。
- 滑动窗口深度注意力是可直接复用的 trick：在循环结构中，每个子层只用 embedding + 最近 3 个 residual block 做深度注意力，比全量历史更省显存/带宽，吞吐损失约 10%，但效果不降反升；这适合你自研深层共享模型时直接套用。
- 固定 recurrence 训练，推理时不要超过训练最大值：论文发现动态 recurrence 不如固定值；推理时 recurrences 超过训练最大值也无法继续涨点。线上 serving 时可以把最大 recurrences 固定到训练值，避免无效计算。
- Value residuals 对深层循环模型稳定性很重要：尤其搭配 Sandwich Norm 时，没有 value residuals 会出现表示坍塌、训练失败；如果你自己训练很深的共享层模型，可以加入 gated token embedding 注入来稳定训练。